Năm 616, Lý Mật biết được ở Đông quận (東都, nay thuộc đông bộ Hoạt, Hà Nam) có cánh quân nổi dậy ở Ngõa Cương trại, binh lực rất mạnh, người đứng đầu là Trạch Nhượng nên đã gặp Trạch Nhượng thông qua Vương Bá Đương. Lý Mật đề xuất cho Trạch Nhượng một số sách lược và thuyết phục một số thủ lĩnh nổi dậy khác đi theo Trạch Nhượng. Lý Mật thỉnh Trạch Nhượng rằng, nay Dạng Đế đang ở tận Giang Đô (江都, nay thuộc Dương Châu, Giang Tô), Trạch Nhượng nên tập hợp binh lính Ngõa Cương quân và tiến công Lạc Dương và Trường An. Trạch Nhượng chưa có tham vọng lớn như vậy nên cho rằng kế hoạch quá quy mô và không chấp thuận, song ấn tượng với Lý Mật và giữ Lý Mật lại, đối đãi như khách quý.

Trong khi đó, do sấm ngôn "Lý thị đương vương", các thủ lĩnh nổi dậy bắt đầu tin rằng Lý Mật là hoàng đế tiếp theo, do đó họ bắt đầu quy phục bản thân Lý Mật. Khi Trạch Nhượng biết được điều này, ông ta càng ấn tượng với Lý Mật hơn và xem xét chấp thuận kế hoạch của Lý Mật. Lý Mật cũng thuyết phục chiến lược gia và chiêm tinh gia Giả Hùng (賈雄) của Trạch Nhượng chấp thuận kế hoạch của mình. Khi Trạch Nhượng hỏi Giả Hùng liệu các dấu hiệu chiêm tinh có chỉ ra rằng kế hoạch của Lý Mật có thể thành công hay không, Giả Hùng nói rằng sẽ như vậy, song Lý Mật có thể sẽ không thành công trong việc trở thành hoàng đế, nhưng nên ủng hộ Lý Mật. Trạch Nhượng tin lời Giả Hùng và ban phú quý cho Lý Mật hơn nữa.

Theo khuyến nghị của Lý Mật, Trạch Nhượng bắt đầu tiến công và chiếm các thành trong quận Huỳnh Dương (滎陽, nay thuộc Trịnh Châu, Hà Nam). Đáp lại, Tùy Dạng Đế phái thông thủ Trương Tu Đà (張須陀) dẫn quân thảo phạt Trạch Nhượng. Trạch Nhượng lúc trước từng thua vài trận trước Trương Tu Đà nên nay cảm thấy lo sợ, song Lý Mật đã thuyết phục Trạch Nhượng rằng có thể đánh bại được vị tướng Tùy này. Theo đề xuất của Lý Mật, Trạch Nhượng lệnh Lý Mật dẫn một nghìn lính và nấp trong rừng phục kích. Khi Trương Tu Đà tiến công Trạch Nhượng, Lý Mật tập kích Trương Tu Đà, bao vây quân triều đình. Ban đầu, Trương Tu Đà có thể thoát khỏi vòng vây, song do cố gắng cứu một số thuộc hạ, Trương Tu Đà đã tử trận, danh tiếng của Ngõa Cương quân được khuếch trương rất nhiều, nguồn cung thực phẩm cũng nhiều lên. Sau chiến thắng, Trạch Nhượng lập một đội quân riêng do Lý Mật chỉ huy, gọi là "Bồ Sơn công doanh". Khi đội quân của Lý Mật phát triển, các binh sĩ của Trạch Nhượng bắt đầu có xích mích với binh sĩ của Lý Mật. Trạch Nhượng do đó đã tách quân của mình ra khỏi Lý Mật song ngay sau đó đã hối tiếc về quyết định này và lại hội quân với Lý Mật.

Vào mùa xuân năm 617, Lý Mật thuyết phục Trạch Nhượng rằng do Dạng Đế ở xa và để Dương Đồng trấn thủ Lạc Dương, các quần thần ở đó sẽ không đồng lòng. Do đó, họ đã phái Bùi Thúc Phương (裴叔方) đến Lạc Dương để do thám, song Bùi Thúc Phương đã bị phát giác và các quần thần ở Lạc Dương bắt đầu chuẩn bị tăng cường phòng thủ trước một cuộc tiến công. Đáp lại, Lý Mật và Trạch Nhượng công chiếm Lạc Khẩu thương (洛口倉), một kho lương thực to lớn do Dạng Đế cho xây dựng. Ngõa Cương quân mở kho cứu tế cho người dân, nhiều người thấy vậy cũng gia nhập quân nổi dậy. Các tướng Tùy là Lưu Trường Cung (劉長恭) và Phòng Trắc (房崱) nhận định Ngõa Cương quân không khác gì một lũ đạo tặc đến kiếm ăn, họ xem nhẹ đội quân này nên đã bị đánh bại. Lý Mật và Trạch Nhượng để quân trong thành Lạc Dương bị đói, dự định sau đó sẽ tấn công và chiếm thành.